Quân hàm Nguyên soái được Hội đồng Dân ủy Xô viết (Sovnarkom) thiết lập ngày 22 tháng 9 năm 1935. Ngày 20 tháng 11, năm quân nhân đầu tiên được phong quân hàm này là Dân ủy Quốc phòng và Cựu chiến binh Kliment Voroshilov, Tổng tham mưu trưởng Hồng quân Aleksandr Yegorov và ba tướng lĩnh cấp cao, Vasily Blyukher, Semyon Budyonny, Mikhail Tukhachevsky. Sau này ba người trong số đó bị xử tử vào những năm 1937, 1938, đó là Blyukher, Tukhachevski và Yegorov. Ngày 7 tháng 5 năm 1940, thêm ba tướng lĩnh được phong quân hàm nguyên soái là Dân ủy Quốc phòng Semyon Timoshenko, Tổng tham mưu trưởng Boris Shaposhnikov và Grigory Kulik.

Trong Thế chiến thứ hai, Timoshenko và Budyonny được cho nghỉ, còn Kulik bị giáng chức vì thiếu khả năng chỉ huy, quân hàm nguyên soái được phong cho một số vị tướng đã thành danh trên chiến trường như Georgy Zhukov, Aleksandr Vasilevsky và Konstantin Rokossovsky. Năm 1943, Stalin cũng tự phong cho mình quân hàm này, năm 1945, người đứng đầu lực lượng an ninh Lavrentiy Beria cũng được phong Nguyên soái, đây là hai trong số bốn vị gọi là "nguyên soái chính trị" (được phong hàm lúc không phải là quân nhân). Những người còn lại là Nikolay Bulganin, Leonid Brezhnev.

Sau chiến tranh đã có hai Nguyên soái bị kết án tử hình, đó là Kulik năm 1950 (được truy phục nguyên soái năm 1957) và Beria năm 1953. Nguyên soái Liên Xô cuối cùng là Dmitry Yazov, được phong năm 1990. Ông qua đời vào năm 2020. Cùng với sự sụp đổ của Liên bang Xô viết, quân hàm này bị bãi bỏ. Hiện nay Liên bang Nga có một quân hàm tương đương là Nguyên soái Liên bang Nga. Người duy nhất hiện giữ quân hàm này là cố Bộ trưởng Quốc phòng Nga Igor Sergeyev.